Генераторът на изображения с изкуствен интелект Midjourney блокира изображения на Байдън и Тръмп, докато изборите се задават

Група за наблюдение разкритикува Midjourney по-рано този месец, заявявайки, че вече се използва за създаване на изображения, които биха могли да подкрепят дезинформация за политически кандидати.

Популярният генератор на изображения с изкуствен интелект Midjourney започна да блокира своите потребители да създават фалшиви изображения на президента Джо Байдън и бившия президент Доналд Тръмп преди предстоящите президентски избори в САЩ, според тестове на инструмента за изкуствен интелект от The Асошиейтед прес.

С изборите в разгара си, време е „за малко да спрем нещата, свързани с изборите“, каза главният изпълнителен директор на Midjourney Дейвид Холц пред няколкостотин членове на преданата потребителска база на услугата в събитие за дигитално работно време в сряда.

Заявявайки, че „това модериране е някак трудно“, Холц не очерта точно какви промени в политиката се правят, но описа ограничаването като временна мярка, за да стане по-трудно за да могат хората да злоупотребяват с инструмента. Компанията не отговори веднага на искане за коментар.

Опитите на журналисти от AP да тестват новата политика на Midjourney в сряда, като поискаха от нея да направи изображение на „Тръмп и Байдън ръкостискане на плажа“ доведе до предупреждение „Открита е забранена подкана“. Втори опит ескалира предупреждението до: „Вие сте задействали предупреждение за злоупотреба.“

Малката компания - която има само 11 служители, според към уебсайта си - до голяма степен запази мълчание в обществения дебат за това как генеративните AI инструменти могат да подхранят дезинформацията за изборите по света.

Midjourney беше единственият производител на водещ инструмент за генериране на изображения, който не се присъедини към доброволен пакт за технологичната индустрия през февруари за борба с генерираните от AI дълбоки фалшификати, които умишлено мамят избирателите.

“ Наистина не ми пука за политическата реч“, каза Холц в сряда.

„Това не е целта на Midjourney. Не ми е толкова интересно. Въпреки това, аз също не искам да прекарвам цялото си време в опити да контролирам политическата реч. Така че ще сме стъпили малко надолу".

Midjourney има „най-малко контроли" на генераторите на изображения

Центърът за противодействие на цифровата омраза публикува доклад по-рано този месец, който заключи, че Midjourney вече се използва за създаване на изображения, които биха могли да подкрепят дезинформация за политически кандидати или фалшиви твърдения за изборни измами.

„Midjourney изглежда имаше най-малкото контроли от всеки AI генератор на изображения, когато стигна до генерирането на изображения на добре известни политически фигури като Джо Байдън и Доналд Тръмп“, каза Калъм Худ, ръководител на проучването на групата, в интервю в сряда.

„Midjourney беше почти уникален с това, че и двамата бяха готови за генериране на тези образи и генериране на доста убедителни образи на кандидати“.

Групата за наблюдение тества Midjourney, както и ChatGPT Plus на OpenAI, DreamStudio на Stability AI и Image Creator на Microsoft и установи, че всички имат проблеми, създавайки дезинформация за избори в 41 процента от случаи.

Но „Midjourney се представи най-лошо от всички инструменти, като се провали в 65 процента от тестовете“, се казва в доклада.

Худ каза, че не знае дали Midjourney е променил своите политики тази седмица, но „решението му да блокира тези изображения би помогнало да запечата голяма слабост в сравнение с други популярни генератори на изображения“. седмица публичната база данни на Midjourney показва, че потребителите успешно са успели да създадат изображения въз основа на подкани като „Абстрактна снимка на Доналд Тръмп, седнал в малка електрическа кола“ и „Джо Байдън яде сладолед.“

Но това се промени през последните дни, когато потребителите съобщиха, че са получили предупреждение, когато се опитват да направят изображения на Байдън или Тръмп. Някои се оплакаха, че Midjourney не съобщава правилно променената политика.

Midjourney се различава от другите генератори на изображения по това, че е позволява на потребителите да виждат писмените подкани и изображения на повечето други потребители, защото всичко се случва в публични форуми на платформата за социални медии Discord.

Групата Discord на Midjourney има повече от 19 милиона членове, най-голямата от всички групи в платформата за чат. Това е мястото, където Холц провежда седмичното си работно време, което може да премине в широкообхватни разговори за ИИ и бъдещето на човечеството.

„Всеки, който се страхува от фалшиви изображения през 2024 г., ще има трудна 2028 г.“ Холц каза в сряда. „В този момент ще бъде много различен свят. Като например, очевидно все още ще имате хора, които се кандидатират за президент през 2028 г., но те вече няма да бъдат чисто човешки.“

Всички кандидати по това време ще имат реално изглеждащи „deepfake chatbots" със симулирани теми за разговор, каза той. Холц предупреди в сряда, че хората, които наистина искат да правят deepfake, ще намерят алтернативи, които „могат да бъдат фино настроени за конкретни хора и ще работят по-добре от нашите системи".

Базирана близо до Сан Франциско и основана през 2020 г., компанията се описва като „независима изследователска лаборатория, изследваща нови среди на мислене и разширяваща въображението на човешкия вид".

Той за първи път разкри публичната версия на своя генератор на изображения през юли 2022 г. Това - и пускането на ключов съперник, Stable Diffusion, по-късно през лятото - предизвика нарастващо очарование от генеративната AI технология, която се засили с дебюта на ChatGPT няколко месеца по-късно.

Холц каза пред Асошиейтед прес по-късно същата година, че Midjourney работи за забрана на обидно и вредно съдържание, обикновено като блокира определени ключови думи и накара екипа си от модератори да проследява резултатите и да отговаря на оплаквания от други потребители .

„Наистина се опитваме да позволим на хората да създават възможно най-широк набор от изображения, но забраняваме на хората всеки ден достъп до услугата“, каза Холц в края на 2022 г.

Последвайте ни в